03. 批次归一化

批次归一化

批次归一化是一种提高神经网络性能和稳定性的技术。想法是归一化层输入,使它们的均值为 0 和方差为 1,类似于我们归一化网络输入的方法。批归一化对于 DCGAN 正常运作很必要。

我们准备了一些 notebook 供你参考学习批归一化和如何在 TensorFlow 中实现它。跟往常一样,你可以在我们的 GitHub 代码库 中找到 notebook,它们位于 tutorials/batch-norm 文件夹下。如果你已克隆了代码库,可执行 git pull 获取新文件。如果没有,请先克隆代码库:

git clone https://github.com/udacity/deep-learning.git

或者,你也可以在此 获取 notebook。

你会找到三个 notebook:

  • Batch_Normalization_Lesson.ipynb - 此 notebook 将向你展示批次归一化的原理
  • Batch_Normalization_Exercises.ipynb - 由你来实现批次归一化的练习
  • Batch_Normalization_Solutions.ipynb - 这些练习的解决方案